Chức vụ Tổng tham mưu trưởng được xem là hình thành từ thời Đế quốc Nga. Trong Cuộc chiến tranh vệ quốc năm 1812, Hoàng thân, Thiếu tướng Pavel Gavrilovich Gagarin được Sa hoàng Aleksandr I bổ nhiệm vào chức vụ Cục trưởng Cục Thanh tra Bộ Chiến tranh Đế quốc Nga (Директора Инспекторского департамента Военного министерства Российской империи) với cấp bậc Tướng tùy viên (Генерал-адъютант). Đây được xem là chức vụ nguyên thủy của chức vụ Tổng tham mưu trưởng Nga.

Cục Thanh tra Bộ Chiến tranh chỉ tồn tại trong vòng 1 năm rồi bị giải thể. Mãi đến năm 1866, Sa hoàng Aleksandr II mới thực sự thành lập Bộ Tổng tham mưu và bổ nhiệm Bá tước, Trung tướng Fyodor Logginovich Geyden vào cương vị Tổng tham mưu trưởng Quân đội Đế quốc Nga (Начальники Главного штаба Русской императорской армии). Sau Cách mạng Nga 1905, chức vụ này được đổi thành Tổng cục trưởng Tổng cục Tham mưu Quân đội Đế quốc Nga (Начальники Главного управления Генерального штаба Русской императорской армии).